技术面常见问题（持续更新） 标签： 1024程序员节 一、数学基础： 1、微积分 1、SGD,Momentum,Adagard,Adam原理 SGD为随机梯度下降,每一次迭代计算数据集的mini-batch的梯度,然后对参数进行更新。 Momentum参考了物理中动量的概念,前几次的梯度也会参与到当前的计算...